دراسة: نماذج الذكاء الاصطناعي أكثر عنصرية من البشر

وجدت دراسة جديدة نظرت في كيفية استجابة نماذج الذكاء الاصطناعي للهجات اللغة الإنجليزية المختلفة، أن هذه النماذج أكثر عنصرية من البشر.

ركزت معظم الأبحاث السابقة حول العنصرية في الذكاء الاصطناعي على «العنصرية العلنية»، مثل كيفية استجابة روبوتات الدردشة لكلمة «أسود»، إلا أن الدراسة الجديدة بحثت في عنصرية هذه النماذج «في الخفاء» وبشكل غير واضح وغير صريح وفق شبكة «سكاي نيوز» البريطانية.

واستخدم الباحثون مواقف افتراضية طُلب فيها من مشاركين مختلفين تخيل أنفسهم متهمين بجرائم كبيرة، ومحاولة الدفاع عن أنفسهم كتابة أمام روبوتات دردشة تعمل بتقنية الذكاء الاصطناعي.

روبوتات دردشة بتقنية الذكاء الاصطناعي

ووجد الفريق أن الروبوتات كانت أكثر ميلًا للتوصية بتطبيق عقوبة الإعدام على الأشخاص الذين يكتبون باللغة الإنجليزية الأمريكية الإفريقية (AAE) مقارنة بالأشخاص الذين يستخدمون اللغة الإنجليزية الأمريكية العادية.

وبعد ذلك، طلب المشاركون من الروبوتات اقتراح وظيفة لهم بناء على تعليمهم وخبراتهم، ليجد الباحثون أن الروبوتات كانت أكثر ميلًا لاقتراح وظائف ضعيفة وذات دخل منخفض على المتحدثين باللغة الإنجليزية الأمريكية الإفريقية.

اللغة الإنجليزية الأمريكية الإفريقية

ويتم التحدث باللغة الإنجليزية الأمريكية الإفريقية بشكل عام من قبل الأمريكيين السود والعديد من الأشخاص في كندا.

وقال فالنتين هوفمان، أحد مؤلفي الدراسة: «إن اللغة الإنجليزية الأمريكية الإفريقية كلهجة تثير العنصرية في نماذج اللغة الخاصة ببرامج الذكاء الاصطناعي، وهذه العنصرية أعمق وأكثر سلبية من أي صور نمطية بشرية عن الأميركيين من أصل إفريقي تم الإبلاغ عنها على الإطلاق».

وأضاف: «عندما تسأل روبوت الدردشة صراحةً: ما رأيك في الأمريكيين من أصل إفريقي؟ فإنه سيخبرك بسمات إيجابية نسبيًا مثل (ذكي) و(متحمس) وما إلى ذلك. لكن عندما تنظر في حكم هذا الروبوت على لهجات أولئك الأمريكيين، فستكتشف صورة عنصرية سلبية للغاية».

وتابع: «لذا فإن ما نظهره في هذه الورقة هو أن نماذج اللغة هذه تعلمت إخفاء عنصريتها في العلن».

مخاطر كارثية

وتثير تقنيات الذكاء الاصطناعي قلق الكثير من العلماء والمحللين والسياسيين على مستوى العالم.

وسبق أن حذرت دراسة نشرت في شهر أكتوبر الماضي، من أن نماذج الذكاء الاصطناعي، التي تدعم برامج الدردشة الآلية، يمكن أن تساعد في التخطيط لهجوم بسلاح بيولوجي، بينما رسم تقرير جديد، صدر الأسبوع الماضي بتكليف من وزارة الخارجية الأمريكية، صورة مثيرة للقلق، للمخاطر «الكارثية»، التي قد يتسبب بها الذكاء الاصطناعي سريع التطور على البشرية والأمن العالمي، محذرًا من أنه قد يتسبب في انقراض البشر.

وسبق أن حذّر الأمين العام للأمم المتحدة أنطونيو غوتيريش، من أن الذكاء الاصطناعي قد يشكل خطرا على السلم والأمن على المستويين المحلي والدولي، داعيا الدول الأعضاء إلى وضع ضوابط لإبقاء التقنية تحت السيطرة.

وقال غوتيريش في جلسة هي الأولى التي يخصّصها مجلس الأمن في يوليو 2023 للبحث في مسألة الذكاء الاصطناعي: "من الجلي أن الذكاء الاصطناعي سيكون له تأثير على جميع مناحي الحياة".

وتابع: "الذكاء الاصطناعي التوليدي لديه إمكانيات هائلة للخير والشر"، مشيرا إلى أن التقنية قادرة على المساعدة في تعظيم الإنتاج وتطويره ووضع حد للفقر أو علاج السرطان، لكن قد تكون لها "عواقب خطيرة جدا على السلام والأمن الدوليين".

ومن جهة أخرى "الاستخدامات الضارة لأنظمة الذكاء الاصطناعي لأغراض إرهابية أو إجرامية أو لصالح دولة، يمكن أن تتسبب في مستويات مرعبة من الموت والدمار وتفشي الصدمات والضرر النفسي العميق على نطاق يفوق التصور"، بحسب غوتيريش.